在许多顺序任务中，模型需要记住遥远过去的相关事件，以做出正确的预测。不幸的是，基于梯度的训练的直接应用需要为序列的每个元素存储中间计算。如果一个序列由数千甚至数百万个元素组成，则需要过大的计算记忆，因此，学习非常长期的依赖性不可行。但是，通常只能考虑到时间上的局部信息来预测大多数序列元素。另一方面，仅在局部信息的情况下，受长期依赖性影响的预测稀疏，其特征是高不确定性。我们提出了一种新的培训方法，该方法允许一次学习长期依赖性，而无需一次通过整个序列进行反向传播梯度。该方法可以潜在地应用于任何基于梯度的序列学习。复发体系结构的磁化实现更好或与基线相媲美，同时需要大大减少计算内存。
translated by 谷歌翻译
生成的对抗网络（GANS）的培训需要大量数据，刺激新的增强方法的发展，以减轻挑战。通常，这些方法无法产生足够的新数据或展开原始歧管超出的数据集。在本文中，我们提出了一种新的增强方法，可确保通过最佳运输理论将新数据保证保持在原始数据歧管内的新数据。所提出的算法在最近的邻居图中找到了派系，并且在每个采样迭代中，随机绘制一个集团以计算随机均匀重量的wassersein重c中心。然后这些重心成为一个可以添加到数据集的新的自然元素。我们将这种方法应用于地标检测问题，并在未配对和半监督方案中增加可用注释。此外，该想法是关于医疗细分任务的心脏数据验证。我们的方法减少了过度装备，提高了原始数据结果超出了质量指标，并超出了具有流行现代增强方法的结果。
translated by 谷歌翻译
最新的努力改善了满足当今应用程序要求的神经网络（NN）加速器的性能，这引起了基于逻辑NN推理的新趋势，该趋势依赖于固定功能组合逻辑。将如此大的布尔函数与许多输入变量和产品项绘制到现场可编程门阵列（FPGA）上的数字信号处理器（DSP）需要一个新颖的框架，考虑到此过程中DSP块的结构和可重构性。本文中提出的方法将固定功能组合逻辑块映射到一组布尔功能，其中与每个功能相对应的布尔操作映射到DSP设备，而不是FPGA上的查找表（LUTS），以利用高性能，DSP块的低潜伏期和并行性。 ％本文还提出了一种用于NNS编译和映射的创新设计和优化方法，并利用固定功能组合逻辑与DSP进行了使用高级合成流的FPGA上的DSP。 ％我们在几个\ revone {DataSets}上进行的实验评估和选定的NNS与使用DSP的基于ART FPGA的NN加速器相比，根据推理潜伏期和输出准确性，证明了我们框架的可比性。
translated by 谷歌翻译
最近的研究表明了对面部表情合成的多域图像到图像转换的令人印象深刻的结果。虽然有效，但这些方法需要大量标记的样本进行合理的结果。当我们在较小的数据集中训练时，他们的性能显着降低。为了解决这一限制，在这项工作中，我们展示了US-GaN，通过采用显着的小型数据集来合成合理表达的较小有效的方法。所提出的方法包括编码层，单个残差块，解码层和终极跳过连接，其将输入图像链接到输出图像。与最先进的面部表情合成方法相比，参数具有三倍。实验结果表明了我们提出的方法的定量和定性效果。此外，我们还表明，终极跳过连接足以恢复较大的最先进模型无法恢复的输入面部图像的富有的面部和整体颜色细节。
translated by 谷歌翻译
2021-11-06
识别类似于波斯语和Urdu等阿拉伯语的脚本比拉丁语的脚本更具挑战性。这是由于存在二维结构，依赖性字符形状，空间和重叠，以及凹陷的放置。离线手写乌尔通脚本的研究并不多，这是世界上第10个最口语的核心脚本。我们提出了一种基于的编码器 - 解码器模型，用于在上下文中读取URDU。引入了一个新的本地化惩罚，以鼓励模型在识别下一个字符时一次只参加一个位置。此外，我们全面地在地面真实注释方面完善了唯一的完整和公开的手写Urdu数据集。我们评估乌尔都语和阿拉伯语数据集的模型，并显示上下文的注意本地化优于简单的关注和多向LSTM模型。
translated by 谷歌翻译